Application of Upper Confidence Bound to Uncertainty Sampling

分類器の学習には一般に大量の訓練データが必要である.訓 練データとは特徴ベクトルとラベルの組である.特徴ベクトル だけは簡単に得られるが,そのラベルを得るのは困難な場合が ある. 例えば,メールがスパムかそうでないかを判別する分類器の 学習について考えてみる.まず,大量のメールを収集し,それ ぞれメールを処理して,特徴ベクトルに変換する.またメール がスパムかそうでないかを判断して,ラベルを決定する.大量 のメールを収集し,処理して,特徴ベクトルに変換することは 計算機に任せることができる.しかし,そのメールがスパムか そうでないかの判断は専門家(人間)が行わなければならない. 人間の判断は時間的,経済的にコストが大きい.分類器を学習 させるためのコストを小さくするためには専門家にラベルを質 問する回数を減らす必要がある.質問する回数を減らすために は計算機によって質問を厳選することが重要である. プールベース能動学習はこのような問題を解決しようと研究 されている [6].プールベース能動学習では,分類器の学習と ラベルを質問する特徴ベクトルの選択を並行して行う.すなわ ち,ステップ nにおいて,大量の特徴ベクトルから,質問方策 に従って,特徴ベクトルをひとつ選び,専門家にラベルを質問 する.これを訓練データとし,ステップ n− 1までに得られた 訓練データ集合に追加する.この訓練データ集合を用いて分類 器を学習させる.これを分類器の精度が目標値に達するまで繰 り返す. ここで,X を特徴ベクトル集合,Pn(C+|xi) と Pn(C−|xi) を,それぞれ,ステップ n終了時点での特徴ベクトル xi が C+ と C− である確率の推定値とする. 能動学習で一般的な質問方策は,ステップ n において,ス テップ n− 1終了時点での訓練データ集合で学習させた分類器 がラベルの最も判断のつきにくい特徴ベクトルを選ぶ,という 不確実性サンプリングである [3]. ラベルが C+ と C− の2種類の場合,ステップ nにおいて, 特徴ベクトル xi のラベルの判断のつきにくさは,エントロ ピー関数を用いて,式 (1)のように定義される.